Chùa Long Sơn do nhà Hoà thượng Thích Ngộ Trí (sinh năm 1856), húy thượng Phổ hạ Trí, thế danh là Nguyễn Tám Văn Nghi, theo dòng Thiền Lâm tế đời thứ 39 khai sơn sáng lập năm 1886 với tên gọi là Đằng Long tự. Ban đầu chùa chỉ là một căn nhà tranh nằm tại đỉnh đồi Trại Thủy(nơi đặt tượng Phật trắng hiện nay)[1]. Năm 1900, chùa bị sập sau một cơn bão, nên Tổ khai sơn quyết định dời xuống chân núi và đổi tên chùa thành Long Sơn tự.

Năm 1936, theo di nguyện của Tổ Ngộ Chí, chùa được tiến cúng cho Hội An Nam Phật Học để làm trụ sở chấn hưng Phật giáo Khánh Hòa, đến nay vẫn còn là trụ sở của Giáo hội Phật giáo Việt Nam tỉnh Khánh Hòa. Năm 1938 năm Bảo Đại thứ 14, chùa được phong "Sắc tứ Long Sơn tự".

Năm 1941 chùa được trùng tu do Hội trưởng Tôn Thất Quyền và Phật tử Võ Đình Thụy phát tâm xây dựng. Năm 1968, chùa bị sạt mái ngói do chiến tranh. Năm 1971, Thượng tọa Thích Thiện Bình đứng ra trùng tu chùa và cho đến năm 1975, việc trùng tu mới thực hiện được 60% theo bản thiết kế của kiến trúc sư Võ Đình Diệp.